Beliau menyertai PAS pada 1983 dan menjadi ahli majlis tertinggi dari 1987-1993. Beliau gagal dalam pilihan raya di Kuala Krai,Arau,Sri Gading dan shah Alam.

• Dalam Pilihan Raya Umum Malaysia 1986 beliau tewas kepada calon Barisan Nasional di Kuala Krai. Ketika itu abangnya Shahril Samad telah dilantik menjadi Menteri Wilayah Persekutuan.
• Dalam Pilihan Raya Umum Malaysia 1999, beliau dikalahkan calon BN/UMNO di kawasan Parlimen P2. Arau,Perlis. Beliau mendapat 13, 154 undi sementara Shahidan Kassim mendapat 20,948 undi.
• Dalam Pilihan Raya Umum Malaysia 2004 beliau dikalahkan oleh Timbalan Menteri Pelajaran , Datuk Abdul Aziz Shamsuddin (BN/UMNO) .Khalid mendapat 19,007 undi sementara Aziz mendapat 32,417 undi.
• Dalam Pilihan Raya Umum Malaysia 2008 beliau mengalahkan calon dari Barisan Nasional, Datuk Seri Abdul Aziz Shamsuddin (BN) dengan majoriti sebanyak 9,314 undi. Beliau memperolehi 33,356 undi berbanding lawannya cuma 24,042 undi.

Pada 1987, beliau ditahan selama 9 bulan di bawah Akta Keselamatan Dalam Negeri (ISA) dalam Operasi Lalang.